Библиография от GPT: границы достоверности

Светлана Александровна МОРОЗОВА, заместитель директора Фундаментальной библиотеки Российского государственного педагогического университета им. А.И. Герцена (Санкт-Петербург)

Предыдущие два года мы рассказывали о том, как библиотекари могут сами применять GPT-модели и обучать пользователей их корректному и компетентному применению*.

В 2025 г. в российском научном публикационном пространстве (а в зарубежном с 2023 г.) массово обнаружились последствия применения больших языковых моделей — сгенерированные полностью или частично библиографические списки в научных рецензируемых изданиях.

«Хорошей» новостью оказалось, что фейковые ссылки — один из ключевых путей обнаружения сгенерированного текста, но это не умаляет проблему.

Как проанализировать библиографию на предмет наличия сгенерированных ссылок и на что следует обратить особое внимание?

* Морозова С.А. GPT-модели искусственного интеллекта, университетский библиотекарь и автор: создаём публикацию вместе / С.А. Морозова // Университетская КНИГА. 2025. № 1. С. 62–68. EDN DKWQHY; Морозова С.А. «Мы оба с ним как будто из металла, но только он — действительно металл», или Как перестать беспокоиться и начать использовать генеративные модели ИИ / С.А. Морозова // Университетская КНИГА. 2024. № 1. С. 42–49. EDN QRTNPV.

ЭТО НЕ ГАЛЛЮЦИНАЦИЯ

В зарубежных исследованиях, сфокусированных на созданных GPT ссылках и библиографических списках, состоящих из очень правдиво выглядящих ссылок на несуществующие публикации, можно обнаружить более 10 вариантов обозначения генераций с придуманной моделями информацией (таблица).

Библиография от GPT: границы достоверности

Топ-3 в этом перечне вариантов составляют Fabricated references; Hallucinated citations/references и Inaccurate references. Но наше внимание привлёк вариант Confabulated references, подробно описанный Дирком Спеннеманом в большом исследовании, которое было опубликовано весной 2025 г.¹.

¹ Spennemann D.H.R. (2025). The Origins and Veracity of References ‘Cited’ by Generative Artifi cial Intelligence Applications: Implications for the Quality of Responses // Publications. 2025. Mar. Vol. 13, iss. 1. Art. 12. https://doi.org/10.3390/publications13010012 .

Автор не считает корректным применять термин «галлюцинации» к результатам генераций GPT, которые выглядят правдоподобно, но, по сути, придуманы моделью. Понятие «галлюцинация» в психологии означает сенсорный опыт без внешнего стимула (зрения, слуха и т.д.). Таким образом, использование термина антропоморфизирует, гуманизирует модели ИИ, поскольку GPT не обладает сознанием, восприятием, не имеет ощущений, не «видит» и не «читает» научные статьи (модель скорее их изучает алгоритмически, создавая массив данных наравне с любыми другими видами информации).

Конфабуляция в нейропсихологии означает непроизвольное создание правдоподобных, но ложных воспоминаний или фактов, чтобы заполнить пробелы в знании. Это происходит, например, при некоторых формах амнезии. Очень важное совпадение: в конфабуляции нет намерения обмануть: человек просто достраивает недостающее тем, что кажется ему правдивым. LLM-модели делают то же самое, утверждает Спеннеман: когда им не хватает информации, они «додумывают» её статистически, создавая правдоподобные, но ложные ссылки. Генерация ссылок на несуществующие публикации — это комбинация вероятных элементов, а не поиск фактов. В GPT (как это ни печально и как бы нам бы ни хотелось это в них видеть) нет внутренней модели истины, нет проверки фактов, есть только статистическое прогнозирование следующего элемента текста. Перефразируя: если составлен качественный промпт, в вашем взаимодействии с моделью сформирован подробный контекст, вы ведёте пошаговый диалог, предоставляете найденные вами материалы (которые модель может дополнить, имея ваши примеры), анализируете аспекты и отдельные сегменты, то риск того, что модель будет додумывать, заполняя непонимание в вашем взаимодействии конфабулированной информацией, снижается. В остальных случаях модель будет придумывать без намерения обмануть (как и в конфабуляциях человека), поскольку это, как резюмирует Спеннеман, естественный результат работы вероятностной языковой модели.

СВЯЗАННЫЕ ФЕЙКОВОЙ ЦЕПЬЮ

Публикации на тему конфабулированных ссылок (мы будем использовать разные варианты, но этот теперь нравится автору более других), распространение которых стало актуальным и, не побоимся этого слова, опасным в русскоязычном научном пространстве, стали появляться в 2023 г. И это понятно, ведь всплеск массового интереса к теме больших языковых моделей произошёл с момента выхода ChatGPT 3.5 в ноябре 2022-го. Именно эта модель стала первой «человекоподобной», осмелимся сказать, поражающей пользователей своими ответами и взаимодействием. Сегодня мы работаем с версией 5.1 творения OpenAI, конкуренция на рынке GPT огромна, и есть возможность выбирать. Или пользоваться эффективными бесплатными инструментами вроде китайского DeepSeek, владельцы которого изменили ландшафт рынка моделей, заставляя большие корпорации интенсифицировать разработки и открывать бесплатно даже самые новые версии с Pro-возможностями (зачастую лимитированными, но всё же). Модели уже сохраняют весь контекст диалогов с пользователем, обладают «рассудительностью» и практически обязательным выходом в Интернет (а не только массивом данных для предобучения с неизбежным временным эмбарго). Поэтому наши требования к моделям повысились.

Одними из первых, кто забил тревогу, были исследователи медицинских направлений. И это понятно: фейковая информация в медицине фатальна. Статьи, посвящённые сгенерированным ссылкам, можно увидеть в журналах по хирургии, психиатрии, офтальмологии, медицинской генетике, конечно, в публикациях о медицинском образовании и по многим другим направлениям этой отрасли. Отрадно, что на втором месте по количеству исследований библиотечные и библиометрические журналы.

Ключевой момент: проблема не только и не столько в зафиксированных конфабулированных ссылках уже вышедших статей, сколько в их распространении в последующих публикациях авторами, имеющими привычку заимствовать ссылки, не проверяя. И если исследователь, задавший промпт, в ответ на который модель создала фейковые ссылки, хотя бы понимал, что пишет текст совместно с ИИ, то последующие «носители вируса» опубликовывают ссылки на несуществующие публикации в своих списках, даже не осознавая их искусственного происхождения.

Название одной из статей 2025 г. начинается так: «The citation catastrophe…»²

² Camp S., Bengtson J.A., Sandstrom J.C. The citation catastrophe: Propagation of AI-generated counterfeit citations in scholarship // J. Acad. Libr. 2025. Vol. 51, iss. 3. Art. 102901. doi:10.1016/j.acalib.2025.102901.

В публикации содержится информация о цепочке распространившихся ссылок и «нулевом пациенте» (эпидемиологическая метафора для статьи, в которой были впервые использованы распространяемые далее сгенерированные ссылки).

Авторы статьи «The citation catastrophe…» смогли построить карту распространения фейковых ссылок, выявив в одной из публикаций 18 ссылок на несуществующие публикации из 20. Фантомные ссылки получили распространение в семи публикациях. «Нулевого пациента» можем указать и мы, поскольку факт генерации подтверждён, статья³ ретрагирована, библиографический список закрыт, во всяком случае на официальном сайте издателя.

³ Tella A., Ajani Y.A., Ailaku U.V. Libraries in the metaverse: The need for metaliteracy for digital librarians and digital age library users // Library Hi Tech News. 2023. Vol. 40, iss. 8. P. 14−18. https://doi.org/10.1108/LHTN-06-2023-0094 .

Ретрагированы ещё три статьи из «связанных одной цепью», это публикации в журналах SAGE и Taylor & Francis. Но четыре статьи до сих пор без каких-либо ограничений продолжают распространять фантомную информацию. В российском научном пространстве автору на декабрь 2025 г. известно об одной ретракции статьи по причине обнаружения сгенерированных ссылок. Невзирая на упоминания в докладах, комментарии под статьями на платформе eLIBRARY.RU и авторы, и журналы хранят молчание или утверждают, что базы статей, по которым проводилась верификация, или неполные, или содержат ошибки.

Ещё один аспект проблемы, который отмечают авторы большинства исследований, — это распространение метаданных статей на авторитетных платформах, пользующихся доверием пользователей. Например, Google Scholar не только индексирует конфабулированные ссылки, но и связывает их с реальными авторами и журналами, создаёт им отдельные веб-страницы, предлагает их в списках релевантных публикаций. Вы скажете: авторы должны всё проверять, искать сами, не полагаться на готовые решения — и будете правы. Но люди часто ищут лёгкие для себя пути, а глобальное изменение информационного пространства в направлении масштабных сочетаний созданного человеком и сгенерированного GPT ещё не настолько изучено, описано в исследованиях и распространено, чтобы пробудить настороженность и недоверие.

Большинство авторов, фиксирующих ситуацию 2023–2024 гг., отмечают, что основными виновниками появления статей — «нулевых пациентов» стали важные для своего времени, но несовершенные модели. От 50 до 84% «найденных» ChatGPT-3.5 публикаций были придуманы ею же, но уже в версиях 4 и 4o было не более 30% сгенерированных ссылок, а чаще — не свыше 10%. Свой вклад внесли Bard от Google (сейчас корпорация развивает модель как Gemini, пересмотрев и подходы к её разработке) и ScholarGPT. То, что первенство в конфабуляции принадлежит ChatGPT в версиях 2023–2024 гг., объясняется просто: этой моделью пользовались и пользуются гораздо чаще, чем другими. В 2023 г. — фактически при отсутствии конкуренции.

Подчеркнём, что в предыдущих статьях в «Университетской КНИГЕ» мы твёрдо заявляли: GPT ещё не готовы к поиску литературы, с улучшением моделей конфабуляций становится меньше, но качество подобранных статей оставляет желать лучшего.

ИСКУССТВЕННЫЕ СИМВОЛЫ

Начнём с самого популярного вопроса, который задавали автору после выступлений на конференциях: как это обнаружить? Здесь важны два момента.

В РГПУ им. А.И. Герцена работают 2 тыс. активно действующих авторов научных публикаций, которые стали источниками информации, сгенерированной с их именем. Сначала было непонимание. Что это такое? Может быть, ошибки? Теперь авторы узнают придуманные ссылки в своих профилях, а после сообщения от них можно изучать и статьи в журнале, где была обнаружена сгенерированная ссылка, и другие публикации автора, в списке которого она присутствовала.

Ситуацию позволяет оценить организация, систематизация и визуальная структурированность информации на платформе eLIBRARY.RU. Сгенерированные ссылки размещаются в разделе «Непривязанные» (для авторских профилей) и обозначены как неидентифицированные. Достаточно поверхностно проанализировать библиографический список. Массовая неидентифицированность ссылок не всегда, но часто сигнал к тому, что необходимо внимательно проверить весь список (хотя далее мы увидим примеры того, когда GPT придумано лишь две-три ссылки в дополнение к качественно подобранным и реально существующим публикациям).

В массиве фантомных ссылок, имеющемся у нас на данный момент, можно выявить три большие группы (наименования принадлежат автору):

правдоподобные — в библиографическом описании ссылки используются: а) реально существующие авторы, работающие по схожим темам исследований (иногда, в случае когда авторов больше одного, и реально ранее зафиксированные «дуэты», «трио», «квартеты» соавторов); б) сочетания слов из названий публикаций этих и других авторов, а нередко и опубликованные ранее статьи с полностью такими же названиями; в) достоверные названия журналов, полные совпадения года, тома и выпуска, точное попадание в диапазон количества страниц в данном выпуске, только всё это несуществующие публикации;
малоправдоподобные — например, имя автора и заглавие имеют реальные аналоги, а журнала не существует;
неправдоподобные — ни один из сегментов ссылки не совпадает ни с чем и ни с кем в глобальном публикационном массиве данных.

Предполагаем, что правдоподобность, как и её обратная сторона, зависит от используемой GPT-модели и её версии. Версия ChatGPT 5.1, скорее всего, будет генерировать ссылки правдоподобно, но мы не можем исключить, что статьи созданы ещё в период активного функционирования версий 3.5 или 4 (возможно, не на самой платформе, а в её многочисленных воплощениях в других ресурсах) или использованы другие, менее искушённые, модели. В предыдущих статьях мы отмечали, что степень правдоподобия снижается от начала генерируемого списка (который мог стартовать и с реально существующих публикаций) к его завершению. Но данный тезис уже малоприменим, современные модели действуют более «продуманно».

Перед тем как мы перейдём к примерам, отметим: поскольку ни одна из статей, где были обнаружены целыми списками или частично конфабулированные ссылки, не ретрагирована, мы не будем указывать точные метаданные, а используем только библиографические списки, а также части текста, относящиеся к цитатам из придуманных ссылок. Но вы можете увидеть отдельные примеры с указанием статей в докладах автора на конференциях⁴.

⁴ 25-я Международная научно-практическая конференция «Менеджмент вузовских библиотек» (Минск, 1–3 октября 2025 г.). https://mvb2025.tilda.ws; Всероссийский форум с международным участием «Университетская библиотека: на шаг впереди» (Томск, 20–24 октября 2025 г.). https://lib.tpu.ru/forum-2025#summary; XX Всероссийская научно-практическая конференция «Электронные ресурсы библиотек, музеев, архивов» (Санкт-Петербург, 30–31 октября 2025 г.). https://pl.spb.ru/conferences/conf301025/result.php; Семинар для руководителей подразделений и редколлегий журналов и сборников РГПУ им. А.И. Герцена (Санкт-Петербург, 19 ноября 2025 г.). https://lib.herzen.spb.ru/news/show/1394.

Все приведённые примеры — это опубликованные статьи, часто в научных рецензируемых журналах, входящих в различные авторитетные списки с категориями и уровнями. Выпуски журналов и статьи размещены на официальных сайтах журналов, индексируются в НЭБ eLIBRARY.RU, Google Scholar, «Киберленинке» и на других платформах метаданных, могут обладать DOI.

ВАШЕ ПРАВДОПОДОБИЕ

Начнём с правдоподобных ссылок. И первой покажем ту, с которой у автора данной статьи начался путь к исследованию фейковой публикационной информации (далее — Статья 1):

Тарасов С.В. Образовательная среда и развитие личности в контексте цифровизации // Психологическая наука и образование. 2019. № 2. С. 79–88.

В ходе анализа было выявлено, что:

автор совпадает с активно публикующимся исследователем и автором статей, монографий, учебников Сергеем Валентиновичем Тарасовым (ректором РГПУ им. А.И. Герцена);
название публикации соответствует тематике исследований автора, поскольку словосочетание «образовательная среда» встречается в публикациях автора более 30 раз;
«Психологическая наука и образование» — существующий журнал;
выпуск и год журнала корректны;
в данном выпуске последняя статья завершается на с. 103, соответственно в выпуске есть диапазон страниц, указанный в ссылке. Но именно на с. 79–88 исследуемая статья отсутствует;
у С.В. Тарасова статьи с таким названием нет. Более того, публикации с точно таким названием не существует ни в eLIBRARY.ru, ни в индексе поисковых систем Интернета⁵.

⁵ Здесь важный комментарий: фейковые ссылки попадают в индекс поисковых систем и при попытках найти часть ссылки в открытом поиске вам могут показать в одном-двух первых ответах контекст найденного таким образом, что это может ввести в заблуждение: как будто публикация, указанная в ссылке, существует. Необходимо открыть найденную веб-страницу, чтобы убедиться, что это всё та же статья, в которой содержится конфабулированная ссылка.

Но мы ещё можем ошибаться. Библиотекарям и библиографам хорошо известно, как могут модифицироваться библиографические описания ссылок, если авторы их формируют «из воспоминаний», да и просто допускают опечатки.

Для верификации мы должны изучить и весь список. Выяснилось, что:

библиографический список к рассматриваемой статье состоит из 15 пунктов;
инструментами НЭБ идентифицированы ссылки 1 и 15 (статьи);
к существующим публикациям относятся две книги: под номерами 10 и 14;
конфабулированы GPT 11 ссылок. Их можно отнести к правдоподобным, поскольку они «придуманы» по схеме ссылки на Статью 1.

Например:

Кондаков А.М. Цифровая трансформация школы: новые вызовы и риски // Школьные технологии. 2019. № 6. С. 9–19.

Лубков А.В. Цифровизация образования: ожидания и реальность // Педагогика. 2020. № 3. С. 9–16.

Хуторской А.В. Методология инновационной практики в образовании // Научный результат. Педагогика и психология образования. 2019. Т. 5. № 2. С. 3–13.

Констатируем: журнал входит в Перечень ВАК с категорией К2. В этом же журнале даже беглый просмотр позволяет обнаружить и другие примеры генераций (один из них приведём далее) или, что уже не по теме нашего исследования, искажения ссылок для «актуализации».

Наши предположения: статья создана четырьмя авторами, среди которых два преподавателя двух московских вузов и независимый исследователь. Четвёртый соавтор — аспирант одного из этих же вузов, и, видимо, в соавторах его научный руководитель. Скорее всего, «взрослые» соавторы обозначили необходимость включения в список четырёх публикаций (под номерами 1, 10, 14 и 15), а подбор остальных был делегирован аспиранту.

Приведём примеры правдоподобных ссылок в других статьях:

Ахутина, Т.В., Пылаева, Н.М. Влияние рабочей памяти и когнитивной гибкости на преодоление трудностей в обучении / Т.В. Ахутина, Н.М. Пылаева // Психологическая наука и образование. — 2020. — Т. 25, № 1. — С. 23–31.

Антонова, О.В. Особенности восприятия подростком родительской поддержки / О.В. Антонова, Н.А. Горшкова. // Консультативная психология и психотерапия. — 2024. — № 2. — С. 119–132.

ВЫМЫСЕЛ ВМЕСТО ЗАМЫСЛА

В качестве примера выявления малоправдоподобных ссылок приведём Статью 2 (журнал ВАК, К2).

Микляева, А.В., Хороших, В.В. Влияние школьной тревожности на успешность обучения у младших школьников / А.В. Микляева, В.В. Хороших // Психологическая диагностика и коррекция. — 2019. — Т. 14, № 3. — С. 76–85.

Несмотря на то что у соавторов есть 18 совместных статей, не существует и не существовало такого журнала.

Кстати, о соавторстве в конфабуляциях. В данном случае авторы не писали совместных статей по данному направлению исследований, общие публикации у них по другим темам, но у нас есть пример того, когда GPT сумел соединить трёх действующих соавторов, опубликовавших совместную монографию по той же теме, что и в конфабулированной ссылке. А придуманная ссылка такая:

Фёдоров А.А., Илалтдинова Е.Ю., Фролова С.В. Цифровая трансформация педагогического образования: тенденции и перспективы // Вестник Мининского университета. 2019. № 3. С. 79–90.

Вернёмся к Статье 2. Она написана одним автором-аспирантом, библиографический список состоит из 26 позиций, реально существующими из которых являются только номера 1 и 2 — это нормативно-правовые акты.

Оставшиеся 24 конфабулированные публикации дают нам целую россыпь примеров.

В двух фейковых ссылках использованы (что редкость) названия, которые точно в таком же виде существуют, но не у этих авторов и не в этом журнале (подряд, номера 18–19):

Сидорова, Е.А., Сидоров, А.П. Влияние эмоционального интеллекта на развитие мотивации учения у обучающихся подросткового возраста / Е.А. Сидорова, А.П. Сидоров // Психологическая наука и образование. — 2020. — Т. 25, № 2. — С. 70–77.

Кузнецова, Н.В. Эмоциональная мотивация учебной деятельности учащихся общеобразовательной школы / Н.В. Кузнецова // Журнал психологии и педагогики. — 2019. — Т. 10, № 3. — С. 56–64.

В списке семь правдоподобных ссылок и 17 малоправдоподобных.

Наравне с русскоязычными публикациями сгенерированы англоязычные (всего их семь, все малоправдоподобные).

Kearns, D.M., et al. The Role of Genetic and Epigenetic Factors in Reading Disabilities / D.M. Kearns, M.L. Johnson, R.P. Wilson // Journal of Learning Disabilities. — 2019. — Vol. 52, No. 3. — P. 234–242.

Livingston, E.M., et al. Emotional Problems in Children with Learning Disabilities: A Comparative Analysis / E.M. Livingston, J.L. Williams, S. Cooke // Learning Disabilities Research & Practice. — 2018. — Vol. 33, No. 4. — P. 210–221.

В целом журнал должен был бы привлечь внимание экспертов, поскольку заявляет 12 выпусков в год, но у каждого выпуска есть «подвыпуски», например 2/2, а иногда и 2/3. Таким образом, только в 2025 г. на момент написания данной статьи вышли 11 заявленных выпусков журнала и 14 дополнительных.

А теперь о не менее интересном: после комментария одного из авторов, указанного в конфабулированной ссылке, под Статьёй 2 на платформе НЭБ и ответа Отдела по работе с данными НЭБ «Отправили письмо в редакцию журнала» статья исчезла из содержания выпуска на сайте журнала. Однако полный текст статьи открывается по DOI и в НЭБ журнал не заявил о ретрагировании. Оно и понятно: это публикация к защите кандидатской диссертации.

У автора кроме указанной есть ещё пять статей 2022–2025 гг. В двух статьях 2025 г. (в сборниках) составлены большие, но полностью достоверные списки. А вот в статье 2025 г. в журнале (снова ВАК, К2, а также Белый список 2025, уровень 3) наряду с большим числом достоверных публикаций мы вновь обнаруживаем возможные конфабуляции. Приведём только две с указанием одного автора:

Поливанова К.Н. Образовательная среда дома // Вопросы образования. 2015a. № 4.

Поливанова К.Н. Современное родительство как предмет исследования // Психология обучения. 2015b. № 9.

Обращают на себя внимание буквы у обозначений года (они встретятся в списке несколько раз, и только у неидентифицированных ссылок), но это объяснимо. Так сделано для обозначения ссылок в тексте, когда у одного и того же автора две статьи одного года. Проблема в другом: ни редколлегия, ни рецензенты не увидели, что таких статей не существует. В первом из приведённых случаев у автора есть статья в этом выпуске указанного журнала, но в соавторстве и с другим названием. Во втором случае автор опубликовал статью с точно таким названием, в том же году, но в другом журнале и в другом выпуске. Ошибки автора, редакционной вёрстки? Конечно, случай нередкий, но не в этот раз, поскольку цитируются не тексты из реально существующих статей.

НЕРЕАЛЬНО И НЕПРАВДОПОДОБНО

Неправдоподобные ссылки — это, как правило, грубые галлюцинирования, которые связаны, скорее всего, с использованием устаревших моделей.

Примеры:

Артамонова Е.Ю. Постгуманизм: антропология будущего / Е.Ю. Артамонова. — СПб.: Изд-во Европейского университета в Санкт-Петербурге, 2019. — 280 с.

Беляева, В.И. Формирование учебной мотивации у детей младшего школьного возраста / В.И. Беляева // Вопросы психологии образования. — 2020. — Т. 8, № 4. — С. 44–50.

Ермолова, Л.В., Севастьянова, Н.Г. Формирование мотивации достижения у подростков в условиях образовательного процесса / Л.В. Ермолова, Н.Г. Севастьянова // Журнал психологии и педагогики. - 2019. — Т. 15, № 2. — С. 109–118.

Корнев, А.Н., и др. Эффективность индивидуализированных программ коррекции дислексии / А.Н. Корнев, И.М. Волкова, Н.П. Петров // Журнал педагогической психологии. — 2019. — Т. 27, № 5. — С. 112–120.

Коблов Ф.Ч. Юридическая ответственность сотрудников полиции: моногр. М.: Юнити-Дана, 2016. 175 с.

Верификационный анализ сводится к констатации факта: придумано всё, кроме городов и издателей в случаях конфабуляций книжных публикаций. Кстати, вы могли обратить внимание на то, что большинство примеров выше были связаны с конфабуляциями статей. Это объяснимо: в современных статьях по актуальным темам исследований предпочтение отдаётся ссылкам на статьи в научных рецензируемых журналах. Поэтому и промпт авторов выглядел примерно так: «Подбери статьи по теме…»

Но в наших материалах есть пример, назовём его Статья 3 (авторы — преподаватель и аспирант одного и того же вуза). Это публикация в журнале из Перечня ВАК (К2) и Белый список 2025, уровень 3, где в библиографическом списке 23 названия, из которых в НЭБ идентифицированы пять, но на самом деле правомерных ссылок 13, просто список состоит практически из одних книжных изданий. Реальны также ссылки на два сайта и статью в зарубежном журнале. В данном случае автор, вероятно, «подгоняет» список под требования журнала о количестве ссылок. Поэтому понадобились семь конфабуляций GPT (книги), а также две книги, никогда не выходившие в России, что, скорее всего, тоже фейк от ИИ.

В одном случае изменены год и часть названия, но это может быть как ошибкой автора, так и конфабуляцией.

Примеры фантомов из этого списка:

Павленко А.В. Философия постгуманизма: вызовы и перспективы / А.В. Павленко. — СПб.: Алетейя, 2018. — 256 с.

Подорога В.А. Постгуманизм в контексте философии науки / В.А. Подорога. — М.: Наука, 2020. — 324 с.

Саркар П.Р. Неогуманизм: Новая философия для нового мира / П.Р. Саркар. — Калкутта: Ananda Marga Publications, 1982. — 188 с.

Смирнов Н.В. Постгуманизм: философия человека в эпоху технологий / Н.В. Смирнов. — М.: Изд-во РГГУ, 2017. — 220 с.

Ещё пример списка (Статья 4, автор — кандидат наук, доцент юридического вуза), включающего только книги, а также четыре диссертации и одну статью (малоправдоподобная генерация). Журнал, в котором она опубликована, относится ко второй категории списка ВАК. Заявлены 12 выпусков, но реально выходят 15–20 номеров в год. В каждом из них ровно по 30 статей (просто отметим такую пунктуальность).

В списке 15 публикаций, три идентифицированы, они существуют. 12 ссылок конфабулированы моделью ИИ. Это книги, пять диссертаций и одна статья. Приведём здесь примеры фейковых диссертаций, которые есть и в контексте цитирования, нам это пригодится.

Зорина Е.А. Правосознание сотрудников органов внутренних дел: теоретико-правовое исследование: дисс... канд. юрид. наук. М., 2018. 211 с.

Капинус О.С. Криминологическая характеристика и предупреждение преступности среди сотрудников органов внутренних дел: дисс... д-ра юрид. наук. М., 2017. 453 с.

Обыденова Т.В. Административно-правовое регулирование служебной дисциплины в органах внутренних дел России: дисс... канд. юрид. наук. М., 2016. 215 с.

МОЖНО ЛИ ВЕРИТЬ ТЕКСТАМ?

Оставим вопрос о сгенерированных текстах специалистам по созданию программ автоматического распознавания фейковых фрагментов. Но нельзя не обратить внимание на полезные метки «Контекст», которыми размечаются списки литературы в НЭБ. Особенно на метки у придуманных ссылок.

Статья 1:

Эти результаты согласуются с данными ранее опубликованных исследований, указывающих на особую восприимчивость мышления и творческих способностей к развивающему потенциалу цифровых инструментов (Ниссен, 2018; Поляков, 2019). Вместе с тем полученные нами коэффициенты d Коэна демонстрируют более высокую практическую значимость эффектов по сравнению с аналогичными экспериментами (ср. d=0,61 в метаанализе R. Mayer (Тарасов, 2019)), что может объясняться комплексным характером реализованной модели, охватывающей все ключевые компетенции.

Примеры цитируемых фантомных ссылок из этой статьи были выше.

Статья 2 снова наш фаворит, весь обзор исследований сгенерирован из слов в фейковых ссылках.

Текст:

М.М. Безруких и Е.С. Логинова (2018) [13] разрабатывают системы диагностики трудностей, охватывающие когнитивные и эмоциональные аспекты…

Ссылка:

Безруких, М.М., Логинова, Е.С. Разработка систем диагностики трудностей в обучении, охватывающих когнитивные и эмоциональные аспекты / М.М. Безруких, Е.С. Логинова // Психологическое сопровождение образования. — 2018. — Т. 22, № 1. — С. 22–30.

Текст:

Т.В. Ахутина и Н.М. Пылаева (2020) [5] исследуют влияние рабочей памяти и когнитивной гибкости на преодоление трудностей…

Ссылка:

Не будем более занимать время читателя: весь текст такой. Интереснее этого может быть только статья в занимательном журнале «Научный лидер», сформированная из 962 слов и, по сути, состоящая только из введения и заключения, куда замечательно вплетаются подробные «цитаты» из конфабулированных GPT статей. Но журнал «Научный лидер» исключён из всех индексаций.

В Статье 3, где сгенерированы ссылки 1, 9–12, 15, 21, а 18–19 являются зарубежными изданиями, «российская версия» которых стала реальностью только в ссылках к этой статье, в тексте отмечены «достижения» по теме исследования конфабулированных авторов:

Среди известных российских исследователей этой темы можно выделить А.В. Павленко, А.В. Шестакова, Е.Ю. Артамонову, В.А. Подорогу и Н.В. Смирнову. В контексте исследований постгуманизма основными идеями выступают в первую очередь идеи критики классического гуманизма. Так, например, А.В. Павленко отмечает, что традиционный гуманизм ставит человека в центр мироздания, но в XXI веке технологии, искусственный интеллект и биоинженерия делают эту концепцию устаревшей.

Мы приводили выше примеры ссылок из Статьи 4 на придуманные диссертации, но в них есть необходимые автору «идеи»:

Существующие исследования по данной тематике в основном сосредоточены на анализе типичных ошибок в оформлении процессуальных актов (Демидова, 2017) и организационных аспектах делопроизводства в ОВД (Зорина, 2018)… Отдельные работы затрагивают проблемы формирования профессиональной компетентности правоприменителей (Капинус, 2017)… Данный результат согласуется с выводами более ранних исследований, показывающих важность практического опыта для развития профессиональных компетенций сотрудников правоохранительных органов (Обыденова, 2016).

НИКТО, КРОМЕ НАС

Мы несколько раз отмечали, что для уже опубликованного есть опции в НЭБ, позволяющие обратить внимание на фантомные ссылки. Но как предотвратить их публикацию, если они содержатся в рукописи?

Есть критерии, которые подойдут не для всех генераций, но могут быть полезными:

в библиографическом списке превалируют публикации одного вида — статьи из научных журналов или книг, мало материалов конференций и статей из сборников;
названия в списке совпадают с темой публикации (авторы добросовестных научных публикаций собирают материал вокруг темы, а не по точному соответствию);
многие публикации сгенерированы по одной схеме, например: «тема — двоеточие — аспекты темы» (мы видели это выше в примерах из Статьи 1);
для случаев генерации в старых версиях GPT-моделей или в бесплатных воплощениях GPT в различных социальных сетях используются распространенные фамилии — Иванов, Петров, Сидоров, Смирнов, Смит, Уилсон, Джонсон и т.п.

В eLIBRARY.RU полезный для нашего случая инструмент «Идентификация библиографических записей»⁶ в конце октября 2025 г. был дополнен опцией отметки фейковых ссылок.

⁶ https://elibrary.ru/find_edn_list.asp.

Проверяемый список, кроме идентификации DOI и EDN для правомерных ссылок, размечается метками вопросительных и восклицательных знаков, в случае если на платформе нет такого журнала (на декабрь 2025 г. опция работает только для статей) или журнал есть, но в указанном выпуске на этих страницах нет статьи.

Для специалистов библиотек задача остаётся прежней: демонстрировать пользователям надёжные источники информации и поиск в них. Но она может быть дополнена:

презентацией того, как просто и правдоподобно ИИ генерирует фейковую информацию взамен достоверной, если промпты пользователя больше напоминают заказ готовой статьи, а не исследование с обращением к GPT в отдельных аспектах;
показом уже опубликованной конфабулированной информации (надеемся, что скоро мы сможем её демонстрировать в виде ретракций, как частично произошло со Статьёй 2);
знакомством с инструментами, созданными в интеграции с большими языковыми моделями, на платформах российских и зарубежных электронных научных ресурсов;
тренингами по компетентному взаимодействию с GPT в части поиска необходимых материалов.

И ещё одно самое простое, но пока так сложно реализуемое: самим пользоваться возможностями GPT в тех случаях, когда в совместной работе с ними быстрее решаются рутинные задачи; осваивать промптинг; искать идеи относительно того, в чём модели ИИ могут быть полезны нам и нашим пользователям.

Ведь однажды может случиться так, что вы порекомендуете пользователю конфабулированную информацию или воспользуетесь ею сами для своего исследования.

Рубрика: Наука и образование

Год: 2026

Месяц: 1

Теги: ChatGPT Искусственный интеллект (ИИ) Нейросети Библиография Светлана Морозова